Alibaba ha lanzado Tongyi Qianwen QwQ-32B, un nuevo modelo de inferencia de código abierto que ofrece un rendimiento sorprendente incluso en tarjetas gráficas de consumo. Este modelo permite a los usuarios ejecutar inferencias de modelos de lenguaje grande sin necesidad de recursos de computación en la nube de alto costo, abriendo nuevas posibilidades para la investigación y el desarrollo de IA.

“子曰-o1” es un modelo ligero de 14B, diseñado específicamente para tarjetas gráficas de consumo, capaz de funcionar de manera estable en dispositivos con baja memoria de video. Este modelo utiliza la técnica de cadena de pensamiento, proporcionando un proceso de resolución de problemas detallado y razonamiento lógico, con un proceso de pensamiento más cercano al de los humanos. A través del "monólogo interno" y la autocorrección, el modelo puede generar un proceso de resolución de problemas paso a paso, ayudando a los usuarios a comprender y dominar mejor el conocimiento.

El equipo NovaSky del Laboratorio de Computación en la Nube de la Universidad de California, Berkeley, lanzó el viernes el modelo de inferencia Sky-T1-32B-Preview. Este modelo ha demostrado un rendimiento excelente en varias pruebas de referencia clave, comparable al de las versiones iniciales de o1 de OpenAI. Lo que es aún más notable es su extremadamente bajo coste de entrenamiento. Sky-T1-32B-Preview es el primer modelo de inferencia de código abierto verdadero. El equipo de NovaSky no solo ha publicado el modelo, sino también el conjunto de datos utilizado para entrenarlo y el código de entrenamiento necesario.